Mặc dù hầu hết các quốc gia láng giềng đã liên kết thành các nhà nước tương đối tập trung trước thế kỷ XIX, nhưng Đức đã không đi theo con đường đó. Thay vào đó, Đế chế La Mã Thần thánh phần lớn duy trì cấu trúc chính trị thời trung cổ của mình bao gồm "các liên minh cá nhân đa ngôn ngữ gồm hàng trăm nhà nước và lãnh thổ gần như có chủ quyền, có quy mô từ đáng kể đến rất nhỏ".[3] Từ con số gần 400, gồm 136 lãnh thổ giáo hội, 173 lãnh chúa thế tục cộng với 85 thành bang đế chế tự do – vào đêm trước cuộc Cải cách, con số này chỉ giảm xuống dưới 300 một chút vào cuối thế kỷ XVIII. Lời giải thích truyền thống cho sự phân mảnh này (Kleinstaaterei) tập trung vào việc các hoàng đế Thánh chế La Mã bị mất quyền lực dần dần bởi các Thân vương Đế chế trong thời kỳ Staufen (1138–1254), đến mức theo Hòa ước Westphalia (1648), Hoàng đế đã trở thành một người đứng đầu trong số những người ngang hàng. Trong những thập kỷ gần đây, nhiều nhà sử học vẫn khẳng định rằng sự phân mảnh của Đức - khởi đầu là một chính thể lớn trong khi các nước láng giềng bắt đầu với quy mô nhỏ - có thể bắt nguồn từ phạm vi địa lý của Đế quốc - Phần Đế quốc Đức có diện tích gấp đôi lãnh thổ do vua Pháp kiểm soát vào nửa sau thế kỷ 11 - và sức mạnh của các thân vương giáo hội và quý tộc địa phương từ rất sớm trong thời kỳ trung cổ. Ngay trong thế kỷ XII, các Thân vương thế tục và tinh thần không coi mình là cấp dưới của Hoàng đế, càng không phải là thần dân của ông, mà là những người cai trị theo quyền riêng của họ - và họ bảo vệ phạm vi thống trị đã được thiết lập của mình.[4] Vào thời điểm Hoàng đế Frederick II qua đời vào năm 1250, đã quyết định rằng Vương quốc Đức là "một tầng lớp quý tộc có người đứng đầu theo chế độ quân chủ".[5]

Trong số các nhà nước và vùng lãnh thổ đó, các Giáo phận vương quyền là duy nhất ở Đức. Trong lịch sử, các Hoàng đế của Vương triều Otto và thời kỳ đầu của Vương tộc Salier, những người bổ nhiệm các giám mục và tu viện trưởng, đã sử dụng họ làm đặc vụ của vương quyền hoàng gia - vì họ đáng tin cậy hơn các công tước mà họ bổ nhiệm và là những người thường cố gắng thiết lập các công quốc cha truyền con nối độc lập. Các hoàng đế đã mở rộng quyền lực của Giáo hội, và đặc biệt là của các giám mục, bằng việc ban tặng đất đai và vô số đặc quyền miễn trừ và bảo vệ cũng như các quyền tư pháp rộng rãi, cuối cùng hợp nhất thành một công quốc tạm thời đặc biệt: Hochstift. Giám mục người Đức đã trở thành "Thân vương của Đế chế" và là chư hầu trực tiếp của Hoàng đế cho Hochstift của mình,[6] trong khi tiếp tục chỉ thực hiện quyền mục vụ đối với giáo phận lớn hơn của mình. Việc Hoàng đế bổ nhiệm cá nhân các giám mục đã gây ra tranh cãi về việc tấn phong vào thế kỷ XI, và sau đó, quyền kiểm soát của hoàng đế đối với việc lựa chọn và cai trị của các giám mục đã giảm đi đáng kể. Các giám mục, hiện được bầu chọn bởi các giáo đoàn có tư tưởng độc lập chứ không phải do hoàng đế hay Giáo hoàng lựa chọn, được xác nhận là lãnh chúa ngang hàng với các Thân vương thế tục.